Allegheny Family Screening Tool(AFST)
アレゲニー郡の児童リスク予測ツール(アレゲニー・ファミリー・スクリーニング・ツール)
児童が里親ケアに入る可能性を予測するために0から20のリスクスコアを生成する
Perprexity.icon
各事例について、検索結果から以下の根拠が見つかりました:
(中略)
## 統計モデル事例
- アレゲニー郡の児童リスク予測:
- 0から20のリスクスコアを計算し、スコアが高いほど児童が里親ケアに入る可能性が高いと予測5
- 過去の児童福祉履歴、出生記録、Medicaid、薬物乱用、メンタルヘルス、刑務所・保護観察記録などの政府データセットを使用10
5 https://www.aclu.org/news/womens-rights/how-policy-hidden-in-an-algorithm-is-threatening-families-in-this-pennsylvania-county
10 https://www.pbs.org/newshour/nation/ap-report-doj-examining-ai-screening-tool-used-by-pa-child-welfare-agency
Perprexity.icon
## 主な問題点
**アルゴリズムの偏り**
- アフリカ系アメリカ人世帯の33%が「高リスク」と分類される一方、非アフリカ系世帯では20%にとどまっています1。
- 障害者のいる世帯が、そうでない世帯と比べて高リスクと判定される傾向があります1。
**データの偏り**
- 政府のデータベースを使用しているため、公的機関との接触が多い集団の情報が過剰に代表されています1。
- 民間の医療機関のデータは含まれないため、高所得者層のデータが不足しています1。
**透明性の欠如**
- 多くの家族はこのツールの使用自体を知らされていません1。
- スクリーニングの判断基準や過程について説明を受けることができません1。
**永続的な影響**
- 過去の刑務所収容歴などの変更不可能な要因が判断材料に含まれており、システムの偏りが永続化される構造となっています1。
このツールは、既存の差別的な傾向を数学的モデルとして固定化し、科学的な真実として扱われる危険性があります1。
Citations:
1 https://www.aclu.org/news/womens-rights/how-policy-hidden-in-an-algorithm-is-threatening-families-in-this-pennsylvania-county